Cheo cheo nhỏ là động vật guốc chẵn nhỏ nhất, với ngoại hình giống hoẵng và hươu, nhưng không có tuyến lệ. Toàn thân phủ lông màu nâu đỏ, vùng ngực và dưới bụng có 3 vệt lông trắng song song với thân, lông cheo mịn, ngắn và bóng mượt. Con đực và con cái đều không có sừng, nhưng một số con trưởng thành lại có răng nanh chìa ra bên mép, con đực có răng nanh dài hơn con cái, răng nanh hàm trên phát triển thò ra ngoài miệng.

Cheo cheo nhỏ là loài động móng guốc nhỏ nhất thế giới. Với kích thước không lớn hơn một con mèo nhà, chiều dài đầu đến thân trung bình khoảng từ 400 đến 480 mm, trọng lượng đạt từ 0,7 – 2 kg (chiều dài thân tối đa thì cũng khoảng 30–50 cm, trọng lượng 1,6-2,6 kg). Khuôn mặt cheo cheo nhỏ khá giống con chuột, bốn chân gầy nhẳng như que củi.